Іван Трафімавіч Смаль нарадзіўся 19 кастрычніка 1892 года ў вёсцы Ляхаўцы Маларыцкай воласці Брэсцкага павета Гродзенскай губерні (цяпер Маларыцкага раёна Брэсцкай вобласці) у сялянскай сям’і. Працаваць пачаў з чатырнаццацігадовага ўзросту — з 1906 года быў рабочым лясніцтва. У пошуках лепшай долі выехаў у ЗША. Праз нейкі час вярнуўся, пачалася Першая сусветная вайна, у 1914 годзе быў прызваны ў Рускую армію.